Phillips sinh ra ở Albany, Georgia,[7] và chuyển tới Leesburg khi anh 12 tuổi.[8][9][10] Anh lớn lên ở Sasser và Leesburg và học tại Trường Trung học Lee County.[11][12] Anh tốt nghiệp trường Albany Technical College ngành Kỹ thuật Hệ thống Công nghiệp nhưng không thể dự lễ tốt nghiệp vì tham gia American Idol.[13] Trước khi xuất hiện tại American Idol, anh làm việc tại cửa hiệu cầm đồ của gia đình.

Phillips bắt đầu chơi nhạc khi anh 14 tuổi. Anh được hướng dẫn bởi người bạn thân lâu năm và cũng là anh rễ, Benjamin Neil, người anh cho rằng đã kêu gọi anh đến với âm nhạc.[14] Năm 2009, anh thành lập ban nhạc Phillip Phillips Band với Neil và một người anh rễ khác, Todd Urick, và biểu diễn ở nhiều sân khấu địa phương và sự kiện khác nhau.[15] Anh đã thắng một giải thưởng ca hát ở địa phương, "Albany Star", năm 2010.[16] Phillips nói rằng ca sĩ yêu thích của anh là Jonny Lang, và các ca sĩ khác gồm có John Butler, Dave Matthews và Damien Rice,[17] anh cũng yêu thích Mumford & Sons và Tools.[14] Anh miêu tả nhạc của mình mang âm hưởng jazz, rock alternative.[18]

Trước khi tham gia American Idol, anh cũng từng thử giọng trong mùa thứ hai của America's Got Talent nhưng không vào được vòng trong.[19]